Spark Streaming运行的基本原理 发表于 2020-12-14 更新于 2020-12-22 分类于 大数据 阅读次数: 概述Spark Streaming运行时由Driver和Executor相互协调完成。 Driver端创建StreamingContent,其中包括了DStreamGraph和JobSchedule,它又包括了ReceiverTracker和JobGenerator),Driver主要负责生成调度job、与execuor进行交互、指导工作。 相关文章 Spark Yarn 启动流程 Spark ShuffleManager的运行原理 Spark SQL 源码分析 Spark SQL运行的基本原理 Spark 运行的基本原理